Frajburški startap Black Forest Labs (BFL), nekada slavljen kao uzlazeća zvezda u svetu veštačke inteligencije, trenutno je pod masivnom kritikom. Sa svojim generatorom slika Flux.1 kompanija je poslednjih dana bila u centru negativne pažnje. Posebno je partnerstvo sa firmom xAI Elona Maska i šokantne slike koje su širene preko društvenih mreža izazvalo negodovanje.
Black Forest Labs se brzo proslavio u AI zajednici razvojem generatora slika Flux.1. Alat je reklamiran kao moćniji i precizniji od svojih konkurenata Dall-E 3 i Midjourney v.6. U saradnji sa xAI kompanije Ilona Maska, Flux.1 trebao je da proširi mogućnosti Grok modela na platformi X (ranije Twitter).
У среду су, међутим, кружиле слике које је креирао Flux.1 и које су изазвале пажњу широм света. Прикази су укључивали Доналда Трампа који позира са оружјем, као и изузетно узнемирујуће сцене са анимираним фигурама. За разлику од других генератора слика који користе вештачку интелигенцију, чинило се да Grok у комбинацији са Flux.1 има мало ограничења у креирању таквих садржаја.
Ovi događaji sada bacaju ozbiljna pitanja. Kako je do toga moglo doći? Da li su potrebne mere bezbednosti zanemarene? Alat, koji je prvobitno smatran vodećim u smislu preciznosti i kreativnosti, mogao bi biti kritikovan zbog nedostatka osnovnih filtera. Stručnjaci poput Björna Ommera, profesora za računarsku viziju na Univerzitetu Ludwig Maksimilijan u Minhenu, sumnjaju da bi visoki kvalitet Flux.1 mogao biti posledica nedostatka takvih filtera.
Osnivači kompanije Black Forest Labs nisu nepoznati u industriji. Prethodno su svi radili za londonski start-up Stability.AI, poznat po generatoru slika Stable Diffusion. Nakon njihovog odlaska, osnovali su BFL i razvili Flux.1, koji je u velikoj meri zasnovan na modelu Stable Diffusion 3.
Pored tehničke debate, sada se intenzivira i pravna i regulatorna diskusija. Evropska komisija i britanske vlasti mogle bi pokrenuti istrage zbog mogućih kršenja digitalnih i bezbednosnih zakona. Situaciju dodatno usložnjava povezanost sa Ilonom Maskom, koji je poznat po svojim kontroverznim stavovima i delovanjima.
Do sada se ni Musk ni Black Forest Labs nisu zvanično oglasili povodom incidenata. Na društvenim mrežama se, međutim, sve glasnije traže stroža pravila kako bi se slični incidenti u budućnosti sprečili. Ostaje pitanje da li će BFL moći da se izbori sa nastalom krizom i kako će to uticati na dalji razvoj kompanije.
